MiG-25 bắt đầu được phát triển vào thập niên 1950, song song với việc Hoa Kỳ cố gắng phát triển một loại máy bay ném bom và đánh chặn có vận tốc Mach 3, trong đó có cả mẫu thí nghiệm XB-70 Valkyrie (cuối cùng loại máy bay này đã không được sản xuất), XF-103 Thunderwarrior, Lockheed YF-12 và XF-108 Rapier. Khi chiếc máy bay đầu tiên có vận tốc Mach 2 bắt đầu đi vào hoạt động, máy bay đạt vận tốc Mach 3 có vẻ như là một bước đi hợp lôgic[cần dẫn nguồn]. Những vai trò đã dạng đã được tính toán, như mang tên lửa hành trình và cả một mẫu máy bay dân dụng chở từ 5-7 hành khách có vận tốc siêu âm, nhưng sự thúc đẩy chính là phải có một loại máy bay do thám và đánh chặn hạng nặng mới có vận tốc Mach 3.

Mikoyan-Gurevich OKB đã được chỉ định để nghiên cứu chế tạo vào ngày 10 tháng 3-1961.Dù cho mẫu máy bay XB-70 Valkyrie của Mỹ đã bị hủy bỏ nghiên cứu trước khi Liên Xô nghiên cứu loại máy bay mới, sau này thì chiến thắng đã thuộc về người Xô Viết. Mẫu máy bay mới của Liên Xô có tên gọi ban đầu là "Ye-155" (hay "Е-155"), mẫu này có cánh cụp cố định, có vẻ như mẫu Ye-155 đã giành được sự quan tâm của Quân chủng phòng không Xô Viết (PVO Strany), nó sẽ được sử dụng trong vai trò đánh chặn chống lại loại SR-71 Blackbird do thám của Hoa Kỳ. Có nhiều ý kiến cho rằng việc phát triển MiG-25 là để đáp lại việc Hoa Kỳ phát triển XB-70 Valkyrie. Tuy nhiên người đứng đầu Phòng thiết kế MiG A. Belyankov tin rằng không có cơ sở cho ý kiến đó.

Khi bay với vận tốc cao hơn Mach 2, nhiệt gây ra do máy bay ma sát với không khí rất lớn, nên MiG-25 không thể được chế tạo với những hợp kim nhôm truyền thống. Hãng Lockheed đã dùng titan cho YF-12 và SR-71 của họ (mà titan này lại được mua từ Liên Xô), và hãng North American đã dùng loại thép rỗ tổ ong cho XB-70. Cả hai công ty Mỹ đều cố gắng hoàn thiện vật liệu chế tạo máy bay của họ. Trong khi đó, cuối cùng thì Mikoyan-Gurevich OKB quyết định phần lớn chi tiết của MiG-25 sẽ được chế tạo bằng thép hợp kim niken. Kỹ thuật hàn ghép các tấm thép của MiG-25 gồm có hàn điểm, hàn máy tự động và phương pháp hàn hồ quang bằng tay. Lúc đầu các mối hàn bị rạn nứt do máy bay bị rung khi hạ cánh. Nhưng nó nhanh chóng được hàn lại. Một lượng nhỏ titan và hợp kim nhôm đã được dùng để chế tạo MiG-25, ở các khu vực đặc biệt nhạy cảm dễ bị ảnh hưởng bởi lực lực kéo lớn.

Nguyên mẫu đầu tiên, thực tế là phiên bản trinh sát, có ký hiệu "Ye-155-R1", bay lần đầu tiên vào ngày 6 tháng 3-1964. Mẫu máy bay đánh chặn đầu tiên, "Ye-155-P1", được thử nghiệm vào ngày 9 tháng 9-1964. Sự phát triển của những phiên bản thử nghiệm cho thấy những bước tiến quan trọng trong ngành khí động học, trình độ kỹ sư và luyện kim của Liên Xô, và để hoàn thành chiếc MiG-25 hoàn hảo cần một vài năm nữa. Trong quá trình đó, vài mẫu thử nghiệm với tên gọi "Ye-266" (hay "Е-266"), đã được sản xuất để thiết lập những kỷ lục bay mới trong những năm 1965, 1966 và 1967.

MiG-25 được sản xuất hàng loạt với 2 phiên bản MiG-25P ('Foxbat-A') (máy bay đánh chặn) và MiG-25R ('Foxbat-B') (máy bay trinh sát) bắt đầu vào năm 1969. MiG-25R được đưa ngay vào phục vụ trong Không quân Xô Viết (VVS), nhưng MiG-25P lại bị trì hoãn đến năm 1972 mới được đưa vào phục vụ trong Quân chủng phòng không Xô Viết (PVO). Một phiên bản huấn luyện cũng được phát triển được chia ra thành MiG-25PU ('Foxbat-C') cho MiG-25P và MiG-25RU cho MiG-25R. Ngoài ra MiG-25R còn được mở rộng thêm một số phiên bản như MiG-25RB trinh sát/ném bom, MiG-25RBS và MiG-25RBSh máy bay trang bị radar cảnh báo trên không (SLAR), MiG-25RBK và MiG-25RBF ('Foxbat-D') trang bị hệ thống ELINT (thu thập tin tức tình báo bằng tín hiệu điện tử), và MiG-25BM ('Foxbat-F') phiên bản trang bị SEAD (chế áp hệ thống phòng không đối phương), mang bốn tên lửa chống bức xạ Raduga Kh-58 (tên ký hiệu của NATO: AS-11 'Kilter').

MiG-25 thể hiện hiệu năng rất cao, nó có thể bay với vận tốc cực đại Mach 3.2 trên độ cao 27.000 m (90.000 ft), ngày 31 tháng 8 năm 1977 có một chiếc E-266M, đây là một phiên bản MiG-25 được chế tạo đặc biệt, do phi công thử nghiệm chính của OKB MiG là Alexander Fedotov điều khiển, đã bay lên đến độ cao 37.650 m (123.524 ft), lập một kỷ lục độ cao mới tại Podmoskovnoye, Liên Xô. Dù dự định cho mục đích đánh chặn hay đe dọa bay trên độ cao lớn, có tốc độ cao, nhưng khả năng cơ động, tầm bay và không chiến tầm gần của MiG-25 rất hạn chế. Một vài ý kiến tin rằng MiG-25 được dùng với mục đích để ngăn chặn SR-71 Blackbird, hoặc ít nhất dùng để đánh chặn những máy bay có vận tốc lớn, trần bay cao. Dù đạt vận tốc rất lớn, nhưng đó cũng là vấn đề với MiG-25, khi bay ở vận tốc lớn động cơ rất nhanh bị hỏng,[3] dù vấn đề này vẫn hay được tranh luận.[4][5]

Việc thử nghiệm nhà nước bắt đầu vào năm 1965 và kéo dài 5 năm. Đó là vì các mẫu chế thử liên tục phải hoàn thiện do những thiếu sót thiết kế. Và những thiếu sót này đã làm một số phi công thiệt mạng. Mùa thu 1967, phi công chính của Viện Nghiên cứu Không quân Liên Xô Igor Lesnikov hy sinh. Mùa xuân 1969, do turbine động cơ bị pha hủy trong khi bay và đám cháy bùng lên, Tư lệnh không quân Phòng không Liên Xô, Tướng Kadomtsev hy sinh. Sau đó, khi máy bay đã được đưa vào trang bị cho các đơn vị phòng không, còn xảy ra 4 tai nạn chết người nữa. Máy bay cũng đã đòi hỏi hoàn thiện kết cấu. Mức độ tai nạn cao như thế ở giai đoạn đầu có nguyên nhân trước hết là MiG-25 là loại máy bay mới, mọi hành vi của nó trên không về lý thuyết là không thể tiên liệu.

MiG-25 công khai xuất hiện lần đầu vào ngày 9/7/1967 trong cuộc duyệt binh không quân nhân Ngày Không quân Liên Xô ở Demodedovo. Bốn chiếc tiêm kích đánh chặn đã bay thấp bên trên các khán đài. Phát thanh viên thông báo, máy bay mới này có khả năng đạt tốc độ bay 3.000 km/h. Đối với phương Tây đây là một tin kinh ngạc. Thậm chí đã diễn ra các cuộc điều trần khẩn cấp tại Quốc hội Mỹ. Các cuộc điều trần này đã giúp đẩy nhanh việc phát triển các tiêm kích đánh chặn mới F-14 và F-15. Cả hai máy bay mới của Mỹ cũng đều áp dụng sơ đồ 2 cánh đứng đuôi như MiG-25, nhưng thua kém hơn cả về tốc độ và độ cao bay.[6]